Trương Đình Ngọc sinh vào năm Khang Hy thứ 11 (năm 1672), từ nhỏ đã nổi tiếng thông minh, hiếu học, tinh thông Mãn văn, tự xưng là nắm được cái kỳ diệu khó hiểu trong sách vở nhà Thanh, bạn bè cùng học, không ai bằng được, cha là Đại học sĩ nhà Thanh, Trương Đình Anh.

Trong năm Khang Hy thứ 39 (năm 1700), thi đậu Tiến sĩ, dưới thời nhà Thanh, ông từng giữ các chức vụ như Kiểm thảo, Nam thư phòng, Tẩy mã, Thị giảng Học sĩ, Nội các Học sĩ, Hình bộ Thị lang, Lại bộ Thị lang.

Năm Ung Chính nguyên niên (năm 1722), được thăng làm Lễ bộ Thượng thư, năm sau đổi làm Hộ bộ Thượng thư, Hàn Lâm viện Chưởng viện Học sĩ, Tổng tài Quốc sử quán, Thái tử Thái bảo, sau phục chức Nam thư phòng.

Năm Ung Chính thứ 3 (năm 1725) giữ chức Đại học sĩ sự, năm Ung Chính thứ 4, tiến lên Văn Uyên các Đại học sĩ, Hộ bộ Thượng thư, Hàn Lâm viện Chưởng viện Học sĩ, kiêm nhiệm chức quan Tổng tài sung vào việc biên soạn Khang Hy thực lục.

Năm Ung Chính thứ 6 (năm 1728) đổi làm Bảo Hòa điện Đại học sĩ kiêm Lại bộ Thượng thư.

Năm Ung Chính thứ 7 (năm 1729) tăng hàm Thiếu bảo, cùng năm, nhân vì vùng Tây Bắc có chiến tranh, bố trí Quân cơ phòng tới bên trong cổng Long Tôn, với Di Thân vương Dận Tường, ông phụ trách công việc của Đại học sĩ Tưởng Đình Tích. Trước khi Ung Chính lâm chung, ông phụng mệnh cùng với đại thần Ngạc Nhĩ Thái tuân theo di chúc mà phò tá Tân vương.

Năm Càn Long thứ 19 (năm 1755) ông lâm bệnh mất tại nhà riêng, hưởng thọ 83 tuổi.

Thời vua Càn Long, vì xét ông là nguyên lão đã tận tâm tận lực trong công việc qua 3 triều vua, lập nhiều công lao, nên sau khi qua đời ông được đặc ân tế riêng trong Thái Miếu, Trương Đình Ngọc là đại thần người Hán đầu tiên được triều đình cho phép tế riêng trong Thái Miếu nhà Thanh.

Trong thời gian làm quan, ông có làm nhiều công việc quan trọng trong khi là Bí thư của Hoàng đế, như cống hiến cho việc cải thiện nội quy, quy tắc vận dụng Quân cơ xứ và chế độ thượng tấu văn trong nền chính trị đương thời của Thanh triều, khác với các vị đại thần khác chỉ gián tiếp giải quyết công việc, ông trực tiếp tham gia xử lý triều chính, đó là một trong nhiều thành tựu cụ thể của Trương Đình Ngọc trong lịch sử.